계층적 군집 분석
IT 위키
더 많은 작업
- Hierarchical Clustering
- 가장 가까운 개체부터 차례로 묶어 나가며 군집의 계층 구조를 만드는 군집 분석 방법
- 군집 수를 미리 정하지 않아도 된다
- 결과를 덴드로그램(Dendrogram)으로 그려 원하는 높이에서 잘라 군집 수를 정한다
- 병합적(Agglomerative) 방법이 일반적이고, 반대로 쪼개 나가는 분할적(Divisive) 방법도 있다
군집과 군집 사이의 거리를 무엇으로 볼 것인가에 따라 나뉜다.
| 연결법 | 군집 간 거리 | 특징 |
|---|---|---|
| 단일 연결법(최단 연결법, Single) | 두 군집 개체쌍 거리의 최솟값 | 고리 모양(Chaining) 군집이 생기기 쉽다 |
| 완전 연결법(최장 연결법, Complete) | 두 군집 개체쌍 거리의 최댓값 | 조밀한 군집을 만든다 |
| 평균 연결법(Average) | 모든 개체쌍 거리의 평균 | 두 방법의 절충 |
| 중심 연결법(Centroid) | 두 군집 중심 사이의 거리 | 계산량이 적다 |
| 와드 연결법(Ward) | 군집 내 편차제곱합의 증가량이 최소가 되도록 병합 | 크기가 비슷한 군집이 만들어진다 |
- 편차 연결법이라는 것은 없다. 와드 연결법이 편차제곱합을 쓰지만 이름은 와드다.
거리행렬에서 가장 가까운 두 개체를 먼저 묶는다. 묶인 군집과 나머지 개체 사이의 거리는
- 단일(최단) 연결법 → 두 거리 중 작은 값
- 완전(최장) 연결법 → 두 거리 중 큰 값
- 평균 연결법 → 두 거리의 평균
을 취한다. 이 값으로 거리행렬을 갱신하고 다시 가장 가까운 쌍을 찾는 것을 반복한다.
연결법은 거리 계산식만 다른 것이 아니라 만들어지는 군집의 모양과 쓰임이 다르다.
| 연결법 | 군집 간 거리 | 성향과 쓰임 |
|---|---|---|
| 최단 연결법(단일) | 두 군집에서 관측치를 하나씩 뽑았을 때 나올 수 있는 거리의 최솟값 | 가까운 점 하나만 이어져도 합쳐지므로 사슬 모양(고리 모양) 군집이 생길 수 있다. 다른 것과 멀리 떨어진 고립된 군집을 찾는 데 중점을 둔다 |
| 최장 연결법(완전) | 관측치 쌍 거리의 최댓값 | 같은 군집 안의 모든 관측치가 그 거리보다 가깝다. 군집의 내부 응집성에 중점을 두고, 지름이 비슷한 조밀한 군집을 만든다 |
| 평균 연결법 | 모든 관측치 쌍 거리의 평균 | 이상치의 영향을 덜 받는다. 모든 쌍을 계산하므로 계산량이 많아질 수 있다 |
| 중심 연결법 | 두 군집 중심(평균) 사이의 거리 | 두 군집이 합쳐지면 새 중심은 두 중심을 관측치 수로 가중 평균해 구한다 |
| 와드 연결법 | 병합했을 때 군집 내 편차 제곱합의 증가량 | 거리 대신 정보 손실을 최소화한다. 크기가 비슷한 군집끼리 합쳐지는 경향이 있다 |
- 거리의 최솟값으로 재고 사슬 모양과 고립된 군집이 특징이면 최단 연결법이다. 최장 연결법은 최댓값으로 재고 내부 응집성을 본다.
- R 의
hclust()에서는method인자로"single"(최단),"complete"(최장, 기본값),"average","centroid","ward.D"·"ward.D2"를 고른다.